En 1742-43 fue alumno de violín de Carl Höckh, el Konzertmeister en Zerbst, y en 1744 fue violinista y clavecinista en la corte de Strelitz, donde también trabajaba su padre. Tuvo contactos con destacados músicos berlineses como Franz Benda, Carl Heinrich y Johann Gottlieb Graun y Carl Philip Emmanuel Bach. Franz Benda le enseñó el violín y C.H. Graun lo animó a componer. Después de la disolución de la Strelitz Hofkapelle (1752), se convirtió en compositor de la corte en Schwerin en 1754 y, en ocasiones, trabajó como organista y director de música eclesiástica en Stralsund (1759-60). Fue secretario privado de la princesa Ulrike desde 1764 y cuando la Hofkapelle se trasladó a Ludwigslust en 1767, el duque Federico lo despidió para que pudiera permanecer en Schwerin. Desde 1770 fue consejero privado al servicio de la princesa Ulrike, pero continuó componiendo, organizando conciertos en la corte y dando clases de música. En sus últimos años abandonó el violín y se dedicó a los instrumentos de teclado.

Edición discográfica de "Concier-tos" de Johann Wilhelm Hertel

En su juventud Hertel fue considerado uno de los mejores violinistas de la escuela de Franz Benda; compuso una impresionante serie de nueve conciertos para violín, así como música de cámara y sonatas para trío. Sus 17 conciertos para teclado, ricos en invención y distinguidos por pasajes fluidos, son importantes logros del norte de Alemania en este género y están al lado de C.P.E. Bach y Adolf Carl Kunzen. Sus sonatas y otras obras para teclado, en su mayoría todavía típicas de la composición para clavecín, son notablemente inferiores a los conciertos. Sus 40 sinfonías ocupan un lugar preponderante en su producción creativa. Si bien su escritura sinfónica adoptó al principio el estilo de la escuela de Berlín de Hasse y Graun, después de 1760 experimentó un cambio estilístico único en el norte de Alemania en ese momento al absorber las influencias del sur de Alemania.

Con partituras principalmente para cuerdas, trompas, oboes y flautas, sus sinfonías se destacan por su técnica sencilla y no complicada y un manejo casi aforístico, rítmicamente sucinto y brillante del material temático. También escribió música incidental para obras escénicas, oberturas y otros conciertos instrumentales, incluidos diez conciertos para oboe. Sin embargo, fueron sin duda las composiciones vocales extremadamente ricas de Hertel las que llevaron a Gerber a colocarlo entre los ‘compositores de más buen gusto’ de la segunda mitad del siglo XVIII.

Escribió en muchos géneros vocales para la corte de Schwerin, incluidas misas, escenarios de la Pasión, cantatas sagradas, cantatas festivas seculares y arias y corales con acompañamiento orquestal. De hecho, se conocía muy poco de su producción vocal fuera de Schwerin; solo se publicaron un aria y dos colecciones de lieder (1757-60), además de canciones en antologías o publicaciones periódicas contemporáneas. Las dos colecciones de lieder (con textos de J. Löwen, secretario de la corte en Schwerin) muestran la influencia de C.P.E. Bach, Telemann, Johann Valentin Görner y A. C. Kunzen; contienen canciones folklóricas de textura ligera que también se pueden tocar solo con el piano. Su obra literaria incluye un tratado sobre el contrabajo, tres autobiografías y una colección de ensayos de Voltaire y otros.